Command R

・RAGとToolの使用に関する高い精度

・低遅延、高スループット

・128Kコンテキスト長、価格が安い

・10の主要言語に対応 (日本語含む)

・研究・評価のためにHuggingFaceでウェイトを公開

q4_k_s

20tokens/s,

(i7-12700K, RTX4090 24GB+RTX3060 12GB)